Problemstellung
Aktives und intelligentes Wissensmanagement kann auch für KMU viele Vorteile bieten, ist jedoch mit zahlreichen Herausforderungen verbunden. Ähnlich wie eine adäquate Dokumentation als Teil der Geschäftsprozesse kann auch das Wissensmanagement zu konkreten Wettbewerbsvorteilen führen, u.a. durch:
- Sicherung von kritischem Expertenwissen über Mitarbeitergenerationen hinweg und geeignete Zugriffsmöglichkeiten darauf („Demokratisierung“ von Expertenwissen)
- Kostenreduktion und Vermeidung von „Reibungsverlusten“ bei Routinetätigkeiten (u.a. Nachfragen, Zuständigkeiten, Fehlervermeidung)
- Unterstützung bei der Einarbeitung und Qualifizierung von Mitarbeitenden
Lösung
Mit der Verfügbarkeit neuer KI-Technologien zur Repräsentation von Wissen und einfachen Zugriffsmöglichkeiten darauf haben sich in den letzten Jahren auch für KMU neue und leistungsfähige Optionen für das innerbetriebliche Wissensmanagement ergeben. Technologische Grundlage sind sogenannte große Sprachmodelle (Large Language Models – LLM).
Bei der Retrieval-Augmented Generation (RAG) Technologie liegt das Wissen in einer speziellen, sogenannten Vektordatenbank vor, welche eine semantische Suche ermöglicht, bei der die Bedeutung der Suchanfrage und nicht einzelne Suchbegriffe im Mittelpunkt stehen. Vektordatenbanken lassen sich automatisiert aus einer in Form digitaler Dokumente vorliegenden Wissensbasis, wie z.B. das Intranet einer Firma, aufbauen. Für den möglichst einfachen Zugriff auf das in den Vektordatenbanken enthaltene Wissen kommen bei RAG-Systemen LLM zum Einsatz: Fragen können über einen Chatbot gestellt werden, welcher die Antworten als natürlichsprachigen Text zurückliefert. Zusätzlich kann ein RAG-System auch direkte Verweise bzw. anklickbare Links auf die Passagen in Originaldokumenten liefern, welche die Antworten auf die Anfrage des Nutzers enthalten.
RAG-Systeme gibt es in zahlreichen Varianten, die sich u.a. bzgl. Kosten, Funktionalität, Verarbeitungsgeschwindigkeit, Schutz vertraulicher Daten und digitaler Souveränität unterscheiden. Unternehmen, welche sich für RAG-Systeme und darauf basierendes Wissensmanagement interessieren, können diese Technologie mit dem hier vorgestellten Demonstrator interaktiv erleben. Die Unterschiede zwischen herkömmlichen, ausschließlich auf LLM basierenden Chatbots und den hier beschriebenen RAG-Systemen werden mit dem Demonstrator ebenfalls veranschaulicht.
Vorteile
- Das RAG-System nutzt für die Generierung der Antworten ausschließlich die firmenspezifische Wissensbasis, reduziert das Risiko von sogenannten Halluzinationen eines LLM und kann mit der Antwort konkrete Verweise auf relevante firmenspezifische Dokumente liefern.
- Die für RAG notwendige Wissensbasis in Form einer Vektordatenbank lässt sich mit vergleichsweise geringem Aufwand aufbauen und pflegen.
- Das zum Einsatz kommende LLM dient lediglich als Schnittstelle für den Datenabruf und die Antwortgenerierung in natürlicher Sprache, weshalb auch kleinere frei verfügbare LLM zum Einsatz kommen können. Dies ermöglicht auch KMU ein sogenanntes lokales RAG-System, welches vollständig im Intranet der Firma laufen kann. Dies ist eine wichtige Voraussetzung für das Management von vertraulichem Wissen.